최근 주목받는 KV-cache 양자화 기법인 TurboQuant의 실제 성능을 검증한 종합 연구 결과입니다. 30B~200B 이상의 다양한 모델과 장문 컨텍스트, 추론 벤치마크를 테스트한 결과, 기존 FP8 방식이 정확도 손실이 거의 없고 처리량과 지연 시간 면에서도 우수한 것으로 나타났습니다. 반면 TurboQuant는 약간의 메모리 절약 효과 외에는 처리 속도 저하를 유발하여 프로덕션 환경에는 FP8이 더 적합한 기본값으로 권장됩니다.
구글 딥마인드의 제미나이(Gemini) 기반 코딩 에이전트인 알파에볼브(AlphaEvolve)가 유전체학 분야에 적용되어 DNA 시퀀싱 오류 교정 모델의 성능을 크게 향상했습니다. 실무적으로 변이 탐지 오류율을 30%나 줄여 생명공학 기업이 유전 데이터를 더 낮은 비용으로 정확하게 분석할 수 있게 되었습니다. 이는 연구자들이 기존에 발견하지 못했던 질병 유발 돌연변이를 찾아내는 데 핵심적인 역할을 할 것으로 평가받는 중요한 성과입니다.
구글이 공개형 AI 모델인 Gemma 4에 '멀티 토큰 예측(MTP)' 초안 생성기를 도입해 텍스트 생성 속도를 최대 3배까지 높였습니다. 이 기술은 메인 모델이 데이터를 불러오며 대기하는 시간 동안 소형 보조 모델이 여러 토큰을 미리 제안하고 메인 모델이 이를 한 번에 검증하는 방식으로 작동합니다. 품질 저하 없이 스마트폰, 로컬 PC, 클라우드 환경 모두에서 빠른 처리가 가능하며, 소스코드는 Apache 2.0 라이선스로 공개되었습니다.